Nguyễn Kim Sơn sinh ngày 1 tháng 8 năm 1951, quê quán tại xã Nghĩa Hưng, huyện Gia Lộc, tỉnh Hải Dương, người dân tộc Kinh.

Nguyễn Kim Sơn có bằng Cử nhân Luật Quốc tế, trình độ chính trị cử nhân.

Khi làm đại biểu Quốc hội Việt Nam khóa 11 nhiệm kì 2002-2007, ông là Tỉnh ủy viên, Chánh án Tòa án nhân dân tỉnh Hải Dương.